#!/bin/bash

# 带残差连接的训练脚本
# 测试梯度消失问题的改进效果

echo "开始带残差连接的训练..."

cd /home/zkh/lzt/damoxing/boshuyuce/xindaoyuce

python run_main_channel.py \
    --task_name probe_weight_prediction \
    --is_training 1 \
    --model_id ChannelLLM \
    --model ChannelLLM \
    --data SPATIAL_CORR \
    --root_path ./dataset/spatial_correlation/ \
    --data_path spatial_correlation_data.csv \
    --features M \
    --seq_len 20 \
    --label_len 10 \
    --pred_len 10 \
    --n_clusters 25 \
    --n_probes 16 \
    --d_model 128 \
    --n_heads 8 \
    --d_ff 256 \
    --dropout 0.1 \
    --llm_layers 6 \
    --llm_model Qwen3-8B \
    --islora \
    --lora_r 16 \
    --lora_alpha 32 \
    --lora_dropout 0.05 \
    --use_patch_embedding \
    --patch_len 2 \
    --stride 1 \
    --use_transformer \
    --n_transformer_layers 2 \
    --use_reprogramming \
    --num_workers 4 \
    --itr 1 \
    --train_epochs 30 \
    --batch_size 2 \
    --eval_batch_size 2 \
    --patience 8 \
    --learning_rate 0.0005 \
    --des residual_exp \
    --model_comment residual_qwen3_8b \
    --loss mse \
    --optim adamw \
    --lradj COS \
    --pct_start 0.1 \
    --load_spatial_corr \
    --print_every 10

echo "带残差连接的训练完成！"
echo "请检查训练曲线，观察是否有梯度消失问题的改善" 